Pifò moun reyèlman konprann chanjman an revolisyonèl ki pwòp tèt yo lè li rive nan AI. Li pa sèlman ke zouti ak lojisyèl nou yo te vin pi entelijan - li se ke nou te kòmanse devlope lojisyèl nan yon fason konplètman nouvo.
Sa a se entelijan, sepandan, paske pa gen okenn chanjman dramatik nan nenpòt ki aparèy oswa lojisyèl. Pwogram nou yo toujou kouri sou CPU dijital ak GPU, epi yo toujou ekri nan lang pwogramasyon tradisyonèl tankou Python. Se konsa, kote egzakteman se chanjman an revolisyonèl?
Li vo yon gade nan kòd sous nan modèl lang gwo tankouPwodwi yonanPwodwi, oswa nan metaMandeMenm pou yon lekòl, yon bagay etonan se ki jan kout ak relatif senpleman kòd sa a se - ki se etonan, konsidere gwo konesans ak solisyon pwoblèm entelijans modèl sa yo posede. Sa a se lè nou kòmanse reyèlman konprann poukisa sa a se yon reyèl revolisyon, ak poukisa nou ka di ke fason nou devlope lojisyèl te fonksyonèlman chanje.
nanNan yon sistèm enstitisyon atifisyèl, kòd la kouri se jis yon pati marginal nan sistèm la - konesans ak entelijan reyèl vini soti nan dataset la itilize pou fòmasyon. Done se nouvo kòd sous!
nan
Nan yon sistèm enstitisyon atifisyèl, kòd la kouri se jis yon pati marginal nan sistèm la - konesans ak entelijan reyèl vini soti nan dataset la itilize pou fòmasyon. Done se nouvo kòd sous!
Se poutèt sa sa ki nouvo fòma lojisyèl te releLojisyèl 2.0pa Andrej Karpathy - epi mwen panse li se yon non trè apwopriye.
Open pwa ≠ sous louvri
Gen plizyè modèl sous louvri ki disponib gratis ke nenpòt moun ka telechaje, kouri, oswa menm modifye. Egzanp yo gen ladan LLaMA, Grok, ak dènyèman anpil diskite modèl la Chinwa DeepSeek.
Modèl sa yo tipikman konsiste de kèk dosye Python ak plizyè matris pwa masiv (ki chak gen plizyè gigabytes nan gwosè). Malgre ke li se vre ke modèl sa yo ka devlope pi plis - fine-tuned, quantized, distilled, ak sou sa - yo toujou pa ka reyèlman konsidere kòm sous louvri nan sens la klasik. Sa a se paske nou pa gen aksè nan dataset yo itilize yo fòme yo.
Li pi byen yo rele sa yoopen-weight modelsanvan modèl sous louvri, paske eleman an reyèlman valè - done fòmasyon - rete nan men yo nan konpayi piblisite (Meta, xAI, elatriye).
nanTrue open-source AI se bati sou done louvri.
nan
True open-source AI se bati sou done louvri.
Ki moun ki posede done a?
Modèl lang gwo yo tipikman bati pa premye kreye yonModèl fondasyon, ki se Lè sa a fin-tune pou yon objektif espesifik (pou egzanp, chat, tankou ak ChatGPT). Modèl fondasyon sa a se fòme sou done ki te pwodwi pa òmanite a ak disponib piblikman - atravè sit entènèt, liv, videyo YouTube, ak medya sosyal. Pandan ke sa a rich nan done se rezilta nan travay kolektiv nou an, li ta logik yo trete sa yo datasèt kòm resous domèn piblik, gratis aksè a tout moun.
Se poutèt sa, anpil sèvis eksplisitman deside entèdi devlopè modèl AI nan sèvi ak kontni yo.
Pèsonèlman, mwen pa konplètman dakò ak apwòch sa a, paske mwen kwè li entèdi pwogrè. Mwen ta renmen anpil yonfair-use modelki pèmèt done ki disponib piblik yo dwe itilize pou fòmasyon AI - sou kondisyon ke dataset ak modèl ki rezilta yo dwe fè gratis aksè nan repons.
Kòm pa gen okenn anviwònman legal tankou sa a kounye a egziste, ak pa gen okenn enstitisyon pou konpayi AI pou devlope modèl reyèlman sous louvri, responsablite sa a rive nan kominote a.
Depo desantralize - kay la ideyal pou seri done louvri
Men, sa ki pral yon dataset louvri bati pa yon kominote mondyal reyèlman sanble? Sa a se lwen soti nan yon kesyon trivial, paske gen diferans ideolojik ak kiltirèl enpòtan ant moun nan diferan rejyon nan mond lan. Pou rezon sa a, li se pa posib yo kreye yon dataset sèl soti nan konesans mondyal piblik ki tout moun ap dakò sou. Anplis de sa, li esansyèl ke yon dataset sa a pa se pwopriyete pa nenpòt moun, ke aksè a pa ka restriksyon, ke done yo pa ka modifye retroactively, ak ke pa gen okenn moun gen pouvwa pou censure li.
Dapre kritè sa yo, chwa a pi bon se yon sistèm depo desantralize imodifye, tankou:IPFSouEthereum SwarmSolisyon sa yo sèvi ak adrèsman kontni (ki kote adrès la nan done a se yon hash ki te kreye soti nan kontni li yo), fè modifikasyon kontni pa otorize pratikman pa posib. Depo se distribye nan plizyè nodes, asire aksè ki an sekirite ak rezistans cenzè kote disponibilite a nan done pa ka restriksyon.
Sistèm sa yo gen yon lòt karakteristik trè itil: yo sove kontni nan blòk. Pandan ke adrès la nan yon pati nan kontni se derive nan hash li yo, si blòk la menm ap parèt nan plizyè dosye, li sèlman bezwen yo sove yon fwa. Nan fason sa a, tou de IPFS ak Swarm fonksyon an menm jan ak yonGit repository, kote vèsyonasyon se otomatik, ak forking se bon mache. Sa a se ideyal nan ka kote nou vle magazen plizyè seri done ki diferan sèlman yon ti kras (pou egzanp, pa mwens pase 1%). Si yon moun pa dakò ak kontni a nan yon seri done, yo ka kreye yon vèsyon nouvo san yo pa bezwen fè yon kopi plen - sèlman chanjman yo estoke. Exactly tankou lè nou fork yon pwojè sou GitHub yo modifye yon bagay.
Ki jan blockchain ka sipòte kreyasyon an nan seri done louvri
Blockchain ak depo desantralize ranplase youn ak lòt byen. Nan yon pwen, depo desantralize pèmèt yo magazen kantite lajan gwo nan done ak yon nivo sekirite konparab ak depo blockchain. Nan lòt pwen, blockchain ka bay sistèm enstitisyon ak kouch gouvènman pou depo desantralize. Yon bon egzanp se Ethereum Swarm, ki pa ta ka travay san yon blockchain, depi sistèm enstitisyon li yo - esansyèl pou operasyon optimum nan rezo a - se aplike nan kontra entelijan kouri sou blockchain la.
Nan ka a nan seri done louvri, DAO ki baze sou blockchain ta ka deside sa ki dwe enkli nan yon seri done. Sistèm la ta ka travay menm jan ak Wikipedya, kote administratè asire ke enfòmasyon false pa fè li nan encyclopedia a. Natirèlman, li se souvan pa klè-kredi ki sa vle di kòm enfòmasyon false. Wikipedya pa gen okenn reyèl solisyon pou pwoblèm sa a - men nan yon sistèm desantralize, blockchain ki baze sou, fork vini nan jwèt la.
Si yon moun pa dakò ak kontni a nan yon dataset, yo ka kreye fork pwòp yo ak lanse yon nouvo DAO pou jesyon vèsyon an altènatif.
Dezantralize fòmasyon
Si done se koòd la sous nouvo, Lè sa a, nan ka a nan lojisyèl 2.0 (artificial intelligence), fòmasyon an se ekivalan a kompile pwogram la. Nan devlopman lojisyèl tradisyonèl, kompilasyon sa a se fè lokalman pa devlopè yo sou machin pwòp yo. Nan sistèm AI, sepandan, fòmasyon se yon travay trè enèji- ak òdinatè-intensive. Antrenman yon modèl lang gwo ka koute milyon dola ak mande pou gwoup òdinatè masiv - yon repitasyon gwo pou modèl kominote-dirijan.
Youn nan opsyon yo se pou kominote yo ranmase lajan ak lou pouvwa òdinatè soti nan yon founisè nwaj pou fòmasyon santralize. Yon lòt opsyon se fòmasyon desantralize, kote manm donasyon kapasite òdinatè oswa pou gratis (kòm yon byen piblik) oswa nan echanj pou kompenzasyon.
Sepandan, fòmasyon desantralize se lwen soti nan yon travay trivial. Yon defi se ke modèl gwo pa ka fòmasyon sou yon sèl node - fòmasyon multi-node se nesesè, ki mande pou gwo volim kominikasyon ant node yo. Kominikasyon sa a dwe optimize pou fòmasyon yo dwe efikas. Fortunately, plizyè startups ap travay sou pwoblèm sa a. Yon egzanp enpòtan seExo Labs nan, ki te devlope yon protokòl ki releDepatman, ki fèt yo pèmèt fòmasyon sou yon rezo ki konekte nan entènèt nan nodes.
Yon lòt defi - komen pou tout sistèm desantralize louvri (blockchains, depo desantralize, elatriye) - se pwoblèm la nantrustKòm nenpòt moun ka gratis kontribye aparèy yo pwòp yo nan sistèm la, pa gen okenn garanti ke yo pral travay onètman. Yon atis malware, pou egzanp, ta ka sèvi ak done ki pa otorize nan plas nan dataset la DAO-apwouve, ak sa a "kontamine" modèl la.
Nan sistèm sa yo, konfyans se ranplase pa garanti òdinatè. Pi plis sekirite nou vle nan yon rezo ki pa konfyans nan nodes, plis pouvwa òdinatè se mande. Yon bon egzanp nan sa a se blockchain, kote chak nod ki pibliye yon nouvo blòk tou valide tout òdinatè nan lanmè ki mennen nan li.
Yon fason sa a, sepandan, pa travay pou fòmasyon AI, se konsa nou dwe eksplore lòt solisyon. Isit la se twa apwòch potansyèl:
Validasyon ki baze sou konsans
Yon apwòch se yo gen chak kominikasyon fè pa plizyè (pou egzanp, twa) node sele alegan. Si rezilta yo pa korespondan, node a malhonore pèdi depo a entèdi. Avantaj nan metòd sa a se ke li bay relatif segondè sekirite. dezavantaj la se ke li triple pouvwa a kominikasyon ki nesesè.
Zero-konesans pwouve
avèk teknoloji ZkNARK (Zero Knowledge Proof), yon ka pwouve ke yon kalkil te fè - ak fè sa nan yon fason ke pwouve a pwòp li se bon mache yo verifye. Teknoloji sa a se itilize nan sistèm tankou zkRollups, kote yon zkSNARK pwouve ke tranzaksyon valab te fè sou yon Layer 2 chaj. Disavantaj la se ke jenerasyon nan pwouve a se kalkilman chè, espesyalman kòm kantite multiplikasyon nan kalkil la ogmante. Sa vle di ke ak teknoloji ZkP kounye a, fòmasyon modèl AI nan fason sa a ta mande pou plis pouvwa òdinatè. Sepandan, ZkP yo se yon zòn aktyèlman rechèch, ak nan tan kap vini an, yo ka vin efikas ase pou fòmasyon distribye.
Optimistic Decentralized Machine Learning
Optimistic decentralized machine learning travay menm jan ak optimistic rollups. Calculation se presume yo dwe korektè san yo yon moun soumèt yon fraud-proof yo montre anyen. Nan pratik la, nod la fòmasyon anrejistre chak etap nan pwosesis la - ki gen ladan matris lan pwa inisyal, done fòmasyon, ak matris pwa rezilta. Si log la tou anrejistre semen yo alegance, tout kalkil la vin determinist ak repwodiktif.
Validator nodes Lè sa a, ka aleksyonèlman echantiyon segman nan log la fòmasyon ak verifye yo. Si nenpòt inkonsistan yo jwenn, nod la fòmasyon pèdi aksyon li yo. Metòd sa a gen ki pi ba koute òdinatè: li pa mande pou koute-zero-konesans proof jenerasyon, ak an kontrè ak konsensus ki baze sou validasyon, sèlman aleksyonèlman selekte pati nan òdinatè a bezwen re-verifye. Sa a fè li pi efikas nan twa atik yo.
Finalman, fòmasyon desantralize mande pou yon "node mache" - yon platfòm kote resous òdinatè disponib ka detekte ak itilize. Yon egzanp se:Aleph Nwa, ki, tankou lòt founisè nwaj, ofri kapasite kominikasyon - men li se yon platfòm desantralize ki fèt yo bay estrikti, kominikasyon, ak sèvis baz baz atravè yon rezo nan nodes distribiye. Li sèvi ak yon token ERC20 peye pou sèvis yo, se konsa li ka fasil entegre ak lòt solisyon blockchain ki baze sou. nodes Aleph sèvi ak anviwònman egzekisyon konfyans, se konsa valizyon se mwens enpòtan nan ka sa a.
Decentralized Inferans
Pou modèl gwo-scale, pa sèlman fòmasyon se non-trivial akòz demann yo segondè òdinatè, men kouri modèl la (inferans) se tou reyèlman difisil. Sa a se espesyalman vle di pou modèl rezonans, kote rezilta yo ap vini sèlman apre plizyè pase kontinyèl devan - sa vle di pouvwa a total òdinatè ki nesesè pou inferans ka depase anpil pase fòmasyon an.
Kòm kouri yon rezo neural travay menm jan an kòm pandan fòmasyon (inferans se faz avanse, pandan y ap fòmasyon enplike anpil faz avanse ak retrograde), optimistic decentralized machine learning ka aplike isit la tou.
Teknoloji tankou Homomorphic Encryption ak Multiparty Computation (MPC) ka ede pwoteje done prive. An menm tan an, pèfòmans la nan lojisyèl la kontinye ogmante eksponansyèlman, ak nouvo teknik - tankou rezo nwaj 1.5-bit ak modèl distilled Mixture-of-Experts (MoE) tankou DeepSeek - se toujou fè li posib pou kouri rezo sa yo lokalman.
Mwen kwè ke nan long sikonstans, nou pral kapab kouri modèl sa yo lokalman - oswa nan mwens, nan anviwònman konfyans ki te lou nan prive.
Konklisyon
Nan kounye a, li se klè pou pifò moun ke AI ap pote chanjman revolisyonèl. Li pral reforme mond nou an nan fason ke nou pa ka imajine - ak sa a se san yo pa menase enpak la nan robot humanoid yo. Ki sa ki enpòtan se ki kenbe pouvwa a sou AI. Li pral rete santralize nan men kèk gwo koreksyon, oswa li pral vin yon bon piblik pataje ki benefisye tout moun?
Sa a fè yon kesyon nan yon kesyon pou tan kap vini nou an: pral reyèlman desantralize AI emerge?
Konstriksyon yon sistèm sa a mande pou plis pase jis inovasyon teknik - li mande pou seri done louvri, depo desantralize, gouvènman ki baze sou blockchain, ak mekanis enstitisyon ki pèmèt kominote kontribye ak kolabore gratis. Li tou bezwen solisyon ki durab pou fòmasyon desantralize ak inferans, asire tou de efikasite ak prive.
Si nou siksè, nou pa pral sèlman demokratize AI - nou pral mete fondasyon an pou yon nouvo kominote dijital, kote entelijan an menm se co-kreye, transparan, ak louvri pou tout moun.
